Nền tảng của ngân hàng là một phần của việc thực hiện Chính sách kinh tế mới. Vào ngày 3 tháng 10 năm 1921, Ban Chấp hành Trung ương Toàn Nga (VTsIK), đã thông qua nghị quyết cho việc thành lập ngân hàng Nhà nước Cộng hòa Xã hội chủ nghĩa Xô viết Liên bang Nga. Tiếp theo là một giải pháp tương tự do Sovnarkom thông qua ngày 10 tháng 10 năm 1921. Nó bắt đầu hoạt động vào ngày 16 tháng 11 năm 1921.

Vào tháng 2 năm 1922 Lenin mô tả Ngân hàng Nhà nước là "trò chơi giấy quan liêu", so sánh nó với một ngôi làng Potemkin trong một bức thư gửi Aron Sheinman, người mà ông buộc tội là "tính trẻ con quan chức Cộng sản".[1] Năm 1923 nó đã được chuyển thành Ngân hàng Nhà nước của Liên Xô. Nó được đặt dưới quyền quản lý của Narkomfin.[2] Nhà nước Xô viết sử dụng Gosbank, chủ yếu, như một công cụ để áp đặt quyền kiểm soát tập trung vào ngành công nghiệp nói chung, sử dụng số dư ngân hàng và lịch sử giao dịch để theo dõi hoạt động của các mối quan tâm cá nhân và tuân thủ các kế hoạch và chỉ thị 5 năm. Gosbank không hoạt động như một ngân hàng thương mại liên quan đến động cơ lợi nhuận. Nó hành động, về mặt lý thuyết, như một công cụ của chính sách của chính phủ. Thay vì đánh giá tín dụng một cách độc lập và vô tưcủa người đi vay, Gosbank sẽ cung cấp nguồn vốn vay cho các cá nhân, nhóm và ngành công nghiệp theo chỉ dẫn của chính quyền trung ương.[3]

Năm 1931, Boris Berlatsky, một quan chức cấp cao của Ngân hàng Nhà nước đã được đưa ra xét xử cho tội phá hoại trong vụ xét xử Menshevik 1931.[4]